Merge branch 'fix-warnings'

rfb: Avoid unused argument warnings in headers

Don't force users of these headers to squash compiler
warnings about unused arguments, annotate with __unused_attr.

Fix shift state test in lock key heuristics

Merge branch 'x0vncshift' of https://github.com/CendioOssman/tigervnc

Merge branch 'securemsg' of https://github.com/CendioOssman/tigervnc

Merge branch 'qemukbd-merge' of https://github.com/CendioOssman/tigervnc

Clear client cursor when switching to server side

Otherwise the client can end up with two visible cursors.

Remove unused FLTKPixelBuffer files

These are unused since 403ac27d, but the files were never removed.

Add support for raw keyboard in vncviewer

Make sure it can map between the key codes of the local system
in to the key codes used by the protocol.

Fix indentation bug

Add support for raw key codes to Xvnc/libvnc.so

rfb_win32: Use scan codes if available

If scan codes are available using QEMU Extended Keyboard Messages
from clients, use that to inject scancodes directly into the
system using the SendInput API.

No conversion is needed as Windows uses the same scancode encoding.

Signed-off-by: Rahul Kale <Rahul.Kale@barco.com>
Signed-off-by: Peter Korsgaard <peter.korsgaard@barco.com>

x0vncserver: keyEvent(): use scancodes if available

Use the client provided (using QEMU extendend key event) scancodes if
available instead of reverse mapping the keysym.

X11 unfortunately uses keyboard driver specific keycodes and provides
no direct way to query this, so guess based on the keyboard mapping.

Handle the two most likely keyboard drivers, the old xorgkbd and evdev.

Signed-off-by: Peter Korsgaard <peter.korsgaard@barco.com>

Include server name in TLS handshake for SNI

In case the server is a front-end to multiple systems and needs to
know which system we're after.

Use better security method description when using VeNCrypt

The sub-modules generally provide a better description than just the
short security method name.

Add better error message for insecure certificate algorithms

Display security state when asking for password

Indicate to the user how secure the transport channel is so they
can avoid entering their password for untrusted sites.

Merge authentication dialogs

Avoid having two separate code paths for the user/password and
only password dialogs. Makes it easier to extend things in the future.

Track keys based on client supplied key codes

This makes it easier to provide more sane events to the backend code
even with crazy clients.

Remove unused needsLastRect state variable

Fix wrong argument for CMsgWriter::clientCutText()

As a result we weren't overloading properly.

Basic support for QEMU Extended Key Events

This adds the basic infrastructure and handshake for the QEMU
Extended Key Events extension. No viewer or server makes use of
the extra functionality yet though.

rfb_win32: Add support for LED state notifications

LED support added using Windows GetKeyState() API call.

The state is polled for change in CapsLock/NumLock/ScrollLock
status in the same code block where chages to Cursor shape is polled.

Signed-off-by: Rahul Kale <Rahul.Kale@barco.com>
Signed-off-by: Peter Korsgaard <peter.korsgaard@barco.com>

x0vncserver: add support for led state notifications

Listen for XKb XkbIndicatorStateNotify events for scroll/num/caps lock and
map them to the RFB protocol.

Signed-off-by: Peter Korsgaard <peter.korsgaard@barco.com>

Send lock LED state from server to client

Add support for lock LED state to Xvnc/libvnc.so

Add server side lock key sync heuristic

Based on QEMU's behaviour.

Sync LED state when gaining focus

The state might have changed when we didn't have focus. Get
everything back in sync once we're back in control.

Add client support for LED state sync

Add libpng as a dependency for freetype for static builds

Newer versions of Freetype requires libpng as well.

Respect modifiers in x0vncserver

Using XKeysymToKeycode() often gives the incorrect keycode as it
doesn't respect the current modifier state. Use XKB to find the
proper key instead.

This however also means that we need to track the mapping for all
pressed keys to make sure we know the correct keycode when it is
time to release the key.

Support clients that only support alpha cursors

Send cursor pseudo-encodings in order of preference

Some servers respect the ordering of pseudo-encodings as well, so
make sure we list the best one first.

Fully implement support for alpha cursor pseudo encoding.
Alpha cursors are not supported in java on Windows so disable
it in that case.  Ideally it would be nice to be able to test
whether or not the client OS supports it, but at the moment
MS Windows is the only one that I'm aware of that doesn't.

Update min version of gettext required to build with .desktop files

.desktop files support was not added to msgfmt until v0.19

Fixed issue where CLI paramters specified as "-param value" caused
a java.nio.BufferOverflowException while the same parameter specified
as "-param=value" worked fine.

Fixed issue where -dotWhenNoCUrsor cli arg was not being honored

Fix for NPE when zero width or height alpha cursor is sent

Handle certificate verification for saved certs correctly

Allow multiple certs with same DN in saved certs file.

Add fallbacks for translating .desktop file

Only fairly recent versions of gettext can translate .desktop files.
So fall back to the older intltool on older systems, or just a plain
copy if intltool is also missing.

Increase default pointer event interval

Some systems (e.g. macOS) send massive amounts of pointer events, so
we need to start rate limiting things to something sensible by default.
One event per screen refresh should be more than sufficient.

Allow removal of GUI prompt on fatal errors

Add a new parameter 'alertOnFatalError' which guards
the displaying of the GUI alert on fatal errors, and
thus when false just gives the textual error.

Now I can do:

  while true
  do
    vncviewer alertOnFatalError=false vm:0
    sleep 1
  done

and it'll reappear when my VM appears without me getting error
dialogs.

Signed-off-by: Dr. David Alan Gilbert <dgilbert@redhat.com>
--

Add generic name to .desktop file

This often gives the user more information about what kind of
application this is.

Generate translations in .desktop file from po files

Move languages to standard LINGUAS file

This is necessary for other translation tools to work properly.

Merge branch 'patch-1' of https://github.com/scootergrisen/tigervnc

Add danish translation

ssize_t must be signed even in windows

rfb: vsnprintf returns an int, not size_t

Fixes:

/home/shade/dev/tigervnc/common/rfb/util.cxx:55:13: error: comparison of unsigned expression < 0 is always false [-Werror,-Wtautological-compare]
    if (len < 0) {
        ~~~ ^ ~
1 error generated.

rfb: Silence nonliteral format string warning in Logger

Clang complains loudly about this with Wformat=2, so add
a __printf_attr to help out.

Fixes:

/home/shade/dev/tigervnc/common/rfb/Logger.cxx:48:35: error: format string is not a string literal [-Werror,-Wformat-nonliteral]
  vsnprintf(buf1, sizeof(buf1)-1, format, ap);
                                  ^~~~~~
1 error generated.

rfb: Fix inheritance in CMsgWriter

InputHandler declares the second parameter of clientCutText
as an int.

Fixes:

/home/shade/dev/tigervnc/common/rfb/CMsgWriter.h:60:18: error: 'rfb::CMsgWriter::clientCutText' hides overloaded virtual function [-Werror,-Woverloaded-virtual]
    virtual void clientCutText(const char* str, rdr::U32 len);
                 ^
/home/shade/dev/tigervnc/common/rfb/InputHandler.h:36:18: note: hidden overloaded virtual function 'rfb::InputHandler::clientCutText' declared here: type mismatch at 2nd parameter ('int' vs 'rdr::U32' (aka 'unsigned int'))
    virtual void clientCutText(const char* str, int len) {}
                 ^

rfb: Fix struct-vs-class warnings

Clang doesn't like when struct and class are used to refer
to the same thing interchangeably.

Fixes all instances of:

In file included from /home/shade/dev/tigervnc/common/rfb/CConnection.cxx:29:
In file included from /home/shade/dev/tigervnc/common/rfb/CConnection.h:28:
/home/shade/dev/tigervnc/common/rfb/DecodeManager.h:35:3: error: class 'Exception' was previously declared as a struct [-Werror,-Wmismatched-tags]
  class Exception;
  ^
/home/shade/dev/tigervnc/common/rdr/Exception.h:32:10: note: previous use is here
  struct Exception {
         ^
/home/shade/dev/tigervnc/common/rfb/DecodeManager.h:35:3: note: did you mean struct here?
  class Exception;
  ^~~~~
  struct
/home/shade/dev/tigervnc/common/rfb/DecodeManager.h:43:3: error: class 'Rect' was previously declared as a struct [-Werror,-Wmismatched-tags]
  class Rect;
  ^
/home/shade/dev/tigervnc/common/rfb/Rect.h:68:10: note: previous use is here
  struct Rect {
         ^
/home/shade/dev/tigervnc/common/rfb/DecodeManager.h:43:3: note: did you mean struct here?
  class Rect;
  ^~~~~
  struct

rdr: Fix incorrect error checking after fread()

fread() returns size_t, which is unsigned. Don't check
for negative values to avoid warnings from Clang.

/home/shade/dev/tigervnc/common/rdr/FileInStream.cxx:74:13: error: comparison of unsigned expression < 0 is always false [-Werror,-Wtautological-compare]
      if (n < 0 || ferror(file))
          ~ ^ ~

Add missing virtual destructors

Fix warnings emitted by Clang:

/home/shade/dev/tigervnc/common/rdr/FdInStream.h:30:9: error: 'rdr::FdInStreamBlockCallback' has virtual functions but non-virtual destructor [-Werror,-Wnon-virtual-dtor]
  class FdInStreamBlockCallback {
        ^
In file included from /home/shade/dev/tigervnc/common/network/TcpSocket.cxx:44:
In file included from /home/shade/dev/tigervnc/common/network/TcpSocket.h:31:
/home/shade/dev/tigervnc/common/network/Socket.h:82:9: error: 'network::ConnectionFilter' has virtual functions but non-virtual destructor [-Werror,-Wnon-virtual-dtor]
  class ConnectionFilter {
        ^
..etc

rfb: Fix hidden function overload warnings

Fix the following warnings emitted by Clang:

/home/shade/dev/tigervnc/common/rfb/Configuration.h:164:18: note: hidden overloaded virtual function 'rfb::VoidParameter::setParam' declared here: different number of parameters (0 vs 1)
    virtual bool setParam();
                 ^
/home/shade/dev/tigervnc/common/rfb/Configuration.h:256:18: error: 'rfb::BinaryParameter::setParam' hides overloaded virtual function [-Werror,-Woverloaded-virtual]
    virtual void setParam(const void* v, int l);
                 ^
/home/shade/dev/tigervnc/common/rfb/Configuration.h:164:18: note: hidden overloaded virtual function 'rfb::VoidParameter::setParam' declared here: different number of parameters (0 vs 2)
    virtual bool setParam();

Remove "Print" from keys that can open F8 menu

Since it is caught by the local system on most platforms.

Merge branches 'fix-fullscreen-scroll' and 'fix-scrollbar-visibility' of https://github.com/LukeShu/tigervnc

Various fixes for Region handling in java viewer

Extend JavaPixelBuffer to make further use of Graphics2D ops

Minimize thread blocking and improve thread safety in java viewer

Name threads for easier profiling

Better checks for object equality, remove redundant initializer

CopyRectDecoder missing getAffectedRegion method in java viewer

vncviewer: Fix scrollbar visibility

Have a window that is sized to the remote screen.  Now shrink the window
vertically, making it shorter than the remote screen in one axis. The
vertical scrollbar appears. However, the horizontal scrollbar does not
appear, despite the rightmost ~24 pixels (Fl::scrollbar_size()) being
hidden by the vertical scroll bar.

Fix that.

For clarity, move the fullscreen checks into a separate `if` statement,
rather than keeping the size and fullscreen checks together.

I think the comment does a decent job of explaining and justifying the
check's logic, but if you require further convincing, perhaps this
alternate explanation will help:

  The check for the X-axis is

      if ((w() - (h() < viewport->h() ? Fl::scrollbar_size() : 0) < viewport->w())

  To be a bit more verbose and repetitive, we can split that ternary in to
  two separate checks, and add some comments:

      if (
             (w() -  < viewport->w()) // X needs a scrollbar
          ||
             ( (w() - Fl::scrollbar_size() < viewport->w()) && (h() < viewport->h()) )
             //( X doesn't need a scrollbar unless Y does ) && (  Y does need one  ) )
         )

  Within the "Y does need one" check, we don't need to worry about the
  case where `h() - Fl::scrollbar_size() < viewport-h()` is true,
  because if both axes are saying "I don't need a scrollbar unless
  you do", then neither needs one.

vncviewer: Fix fullscreen scrolling

Update Danish translation

Compatibility with macOS 10.12 SDK

They finally added kVK_RightCommand, so our workaround needs to be
conditional.

Update Swedish translation

Merge branch 'master' of https://github.com/grulja/tigervnc

Update Serbian translation

Remove INITARGS from xserver119.patch

Make sure install path for java classes is properly defined (re:#295)

Fix for issue #455

Set gateway host correctly when -via is used

Multithreaded decoder improvements (java viewer)

Update Dutch translation

Make RandR callbacks optional as they were before

Merge branch 'master' of https://github.com/alshopov/tigervnc

Add Hungarian translation

Update French translation

Update Turkish translation

Update Bulgarian translation

Updated Vietnamese translation

Update Russian translation

Update Brazilian Portuguese translation

Update Ukrainian translation

Mark strings for translation

Filter out alpha channel for normal draw() operation

macOS actually uses the alpha channel on windows, so we can get visual
artifacts if we feed it bogus alpha data. This filtering unfortunately
causes some CPU usage, but it's necessary until we can make sure the
framebuffer always contains proper 0xff for alpha.

Use correct color space for current monitor

We won't always be on the primary monitor, so check which color space
we're actually using right now. For offscreen stuff we assume a standard
sRGB color space.

Create new CGImage for each draw

The system expects these to be immutable, so changing the data after
creation only works in some special cases. We need to recreate the
CGImage object each time we've changed something.

Use sub-image instead of clipping

It seems to be more efficient.

Only draw overlays when needed

Some backends don't like empty draw operations, so have an early check.

Change development version to 1.8.80

Update translation template file

More fixes for java viewer performance regression

Limit size of cursor accepted by client.

Width and height of a cursor are received as U16 from network. Accepting full range of U16 values can cause integer overflows in multiple places.

The worst is probably VLA in CMsgReader::readSetXCursor:
  rdr::U8 buf[width*height*4];

The width*height*4 can be too big to fit on stack or it can overflow into negative numbers. Both cases are undefined behaviour. Following writes to buf can overwrite other data on stack.

Partial fix for java viewer performance regression

Merge branches 'fix-vencrypt-leak' and 'fixes-ssecurityplain' of https://github.com/michalsrb/tigervnc

Limit max username/password size in SSecurityPlain.

Setting the limit to 1024 which should be still more than enough.

Unlimited ulen and plen can cause various security problems:
  * Overflow in `is->checkNoWait(ulen + plen)` causing it to contine when there is not enough data and then wait forever.
  * Overflow in `new char[plen + 1]` that would allocate zero sized array which succeeds but returns pointer that should not be written into.
  * Allocation failure in `new char[plen + 1]` from trying to allocate too much and crashing the whole server.

All those issues can be triggered by a client before authentication.